Phimai là một thành phố Khmer cổ có tên Vimai hay Vimayapura. Một bia đá từ thời vua Suryavarman I đã được phát hiện, với tên thành phố là Bhirapura có nghĩa thành phố mạnh. Phimai là một thành phố quan trọng kể từ thời đó, cả trong thời kỳ Ayutthaya và Rattanakosin.

Huyện Mueang Phimai được chính thức thành lập năm 1900. Khun Khachit Sarakam (ขุนขจิตสารกรรม) là huyện trưởng đầu tiên.

Hoàng thái hậu Sriphatcharindra (Saovabha) đã thăm Prasat Phimai và Sai Ngam năm 1911. Các quan chức chính quyền đã đổi mới thành phố để phục vụ chuyến thăm này và đặt tên sáu con đường để tưởng nhớ chuyến thăm này.Năm 1940, chính quyền đổi tên huyện bằng cách bỏ chữ Mueang.